\documentclass[11pt, oneside]{ctexart}
\usepackage[a4paper,bindingoffset=0.2in,%
            left=1in,right=1in,top=1in,bottom=1in,%
            footskip=.25in]{geometry}
\usepackage{graphicx}
\usepackage{enumerate}
\usepackage{url}
\usepackage{hyperref}
\usepackage{pbox}
\usepackage{CJKutf8}


\begin{document}
\title{Assignment2报告}
\author{陈坎, 14307130198 \\ 计算机科学与技术学院}
\maketitle
\section{PCA}
    将MNIST数据进行PCA降维后，取2维和3维两种情况的投影图如图1所示。
    \begin{figure}
      \includegraphics{PCA_2D.png}
      \includegraphics{PCA_3D.png}
      \caption{PCA降维后的2D,3D投影图}
      \label{}
    \end{figure}

    分别使用PCA将数据降维到40, 80, 200维后，用最近邻算法进行分类后，结果如表1所示。
    使用PCA降维到95\%能量后，得到对应的维度d=，用最近邻算法进行分类后结果如表1最后一列所示。
    \begin{table}[!htbp]
    % \resizebox{1.4\linewidth}{!}
      \centering
      \scalebox{1}{
    \begin{tabular}{ l || c | c | c | c | c | c }
      \hline
       & train,log & test,log & train,z-norm & test,z-norm & train,binarized & test,binarized \\ \hline
      \lambda =1    & 0.066 & 0.068 & 0.093 & 0.141 & 0.101 & 0.103 \\ \hline
      \lambda =10   & 0.067 & 0.068 & 0.093 & 0.140 & 0.101 & 0.103 \\ \hline
      \lambda =100  & 0.066 & 0.067 & 0.094 & 0.125 & 0.091 & 0.094 \\ \hline
      \hline
    \end{tabular}
    }
    \caption{Logistic回归不同参数训练、测试错误率}
    \label{tb:lda_knn}
    \end{table}
    通过表1的数据我们可以发现，在维度d=40, 80, 200的时候，准确率随着d的上升而上升。
    当d=(能量95\%)时，准确率最高。原因是k越高，保留的信息越多，准确率可能会越高。但是可以看出，
    在d=40和d=200的时候，准确率差距并不是非常大，但是却可以很大减小计算复杂度，证明了数据降维的可行性。

    通过选择合适的k可以在不过大损失准确率的情况下尽可能的进行降维。除了题述的两种方法，
    还可以要求降维后的恢复误差要低于某数值，可以设$error=||X - WX'||$。
    其中X'是X经过降维后的数据，W是进行降维的映射矩阵。

\section{LDA}
    将MNIST数据进行LDA降维后，取2维，3维和9维三种情况的投影图如图2所示。
    \begin{figure}
      \includegraphics{LDA_2D.png}
      \includegraphics{LDA_3D.png}
      \caption{LDA降维后的2D,3D投影图}
      \label{}
    \end{figure}
    分别使用LDA将数据降维到40, 80, 维之后，用最近邻算法进行分类的结果如表2所示。

    在LDA降维中，由于
    \begin{equation}
      S_B = \sum_{k=1}^{C}N_k(m_k - m)(m_k - m)^T
    \end{equation}
    LDA降维后最大的维数为C-1,其中C为类的个数。

\section{Survey}
    我花费了5个小时完成。


\end{document}
